Ông tổ 6 đời là Căn, làm Hoàng môn thị lang nhà Hậu Yên. Ông nội là Quý Sửu, làm Bình Châu thứ sử nhà Bắc Ngụy. Cha là Vĩnh, làm Thái trung đại phu, được tặng Lương Châu thứ sử.

Bật từ nhỏ có chí lớn, sức mạnh hơn người. Năm Vĩnh An đầu tiên (528), được Nhĩ Chu Thiên Quang gọi làm biệt tướng. Theo Thiên Quang tây thảo, phá người Thục ở Xích Thủy, nhờ công được bái làm Chinh lỗ tướng quân, Thạch Môn huyện bá, thực ấp 500 hộ. Lại cùng Hạ Bạt Nhạc đánh dẹp bọn Mặc Kỳ Sửu Nô, luôn đi tiên phong phá trận, không ai địch nổi. Đối phương khiếp sợ, nói: Đừng đối mặt với Lý Tướng Quân!

Thiên Quang đến Lạc, Bật nhân đó đi theo Hầu Mạc Trần Duyệt, làm Đại đô đốc, gia Thông trực tán kỵ thường thị. Đầu năm Thái Xương (532), thụ Thanh Thủy quận thú, Hằng Châu đại trung chính. Sau đó làm Nam Tần Châu thứ sử, theo Duyệt đánh dẹp, nhiều lần lập công.